[速報]基盤モデル「Amazon Titan」に新シリーズ「Amazon Titan Text Lite」「Amazon Titan Text Express」がリリース #AWSreinvent

AWS re:Invent 2023

#AWS

せーの

2023.11.30

せーのでございます。ただいま、AWS re:Invent 2023 keynoteをラスベガス現地にて聞いております。

Amazon Bedrockで使えるAmazon製基盤モデル「Amazon Titan」に新モデル「Amazon Titan Text Lite」「Amazon Titan Text Express」が発表されたのでおつたえします。

Amazon Titanとは

Amazon Titanモデルファミリーは、Amazon Bedrock専用であり、Amazonの25年にわたるAIと機械学習によるイノベーションの経験をビジネス全体に取り入れています。Amazon Titanの基盤モデル（FM）は、完全に管理されたAPIを介して、高性能な画像、マルチモーダル、テキストモデルの幅広い選択肢を顧客に提供します。Amazon Titanのモデルは、AWSによって作成され、大規模なデータセットで事前学習されているため、さまざまなユースケースをサポートするために構築された強力で汎用的なモデルであると同時に、AIの責任ある使用をサポートします。そのまま使用することも、独自のデータでカスタマイズすることも可能です。

やはり強みはAmazon製であるためAWSサービスとの相性が良いところ、Bedrockの中でもカスタマイズが可能なFMである、というところですね。

Amazon Titanシリーズの中でも今回リリースされた2つは、要約、翻訳、会話チャットボットシステムなど、テキスト関連の幅広いタスクをサポートする大規模言語モデル（LLM）です。コードを生成することもでき、一般的なプログラミング言語やJSONやCSVのようなテキスト形式をサポートするように最適化されています。

Amazon Titan Text Express

Titan Text Expressは、最大8,192トークンのコンテキスト長を持ち、オープンエンドテキスト生成や会話チャット、RAG（Retrieval Augmented Generation）ワークフロー内のサポートなど、幅広いタスクに最適です。

Amazon Titan Text Lite

Titan Text Liteは、最大4,096トークンのコンテキスト長を持ち、英語タスクに最適な価格性能の高いバージョンです。このモデルは高度なカスタマイズが可能で、記事の要約やコピーライティングなどのタスクに合わせて微調整することができます。

どう使うの？考えてみた。

Amazon Titan Text Liteはとても軽く、英語のタスクに向いているということなので、例えばAWSから毎日発信される新サービスなどのブログはボリュームも多く、専門的な英語なので日本人にはなかなか全て追うのは時間のかかるところです。

これをAmazon Titan Text Liteで要約し、それをAmazon TranslateやchatGPT、DeepLを使って翻訳すれば、日々のアップデートはざっくり頭の中に入るかと思います。そこから気になったニュース、サービスや事例を読んでいくと効率が良いかと思います。（ちなみにAmazon Titan Text Expressでも翻訳は可能だそうです。）

一方Amazon Titan Text ExpressはアウトプットにJSONなどが書けるので、RAGと合わせて情報をクエリした上で次のシステムにJSON形式で渡す、みたいなつなぎに使えるのではないでしょうか。

response = bedrock_runtime.invoke_model(
  body=body,
  # Choose modelID
  # Titan Text Express: "amazon.titan-text-express-v1"
  # Titan Text Lite: "amazon.titan-text-lite-v1"
  modelID="amazon.titan-text-express-v1"
  accept="application/json", 
  contentType="application/json"
)